"日本文化AI"の開発：地球規模の熟議のためのPlurality

backup from /omoikane/“日本文化AI”の開発：地球規模の熟議のためのPlurality

まずPluralityについて軽くおさらい §

• Plurality: Technology for Collaborative Diversity and Democracy - RadicalxChange
  • Audrey Tang, E. Glen Weyl 2022-09-15

  • テクノロジーと民主主義は戦争状態にあります。テクノロジーは権威主義的な監視を強化し、民主主義制度を侵食しています。一方、民主主義は制約的な規制と公共部門の保守主義で反撃しています。この対立は避けられません。その中で、人工知能 (AI) や暗号通貨などの反民主的なテクノロジーに投資することを、私たちは選択してきました。

  • この時は「テクノロジーと民主主義は戦争状態」とか「AIは反民主的なテクノロジー」とか言っていた
  • この後11/30にChatGPTがリリースされた
• [/nishio/Plurality Tokyo Keynote from Audrey Tang](https://scrapbox.io/nishio/Plurality Tokyo Keynote from Audrey Tang)
  • Audrey Tang 2023-04-12

  • ここ数カ月、言語モデルの急速な発展により、実存的リスクへの懸念が高まり、シンギュラリティが迫っているのではないかという疑問が投げかけられています。

  • しかし、私は”アシスタント人工知能“(assistive intelligence)が、私たちの時間をより有意義な目的を追求するために解放してくれると確信しています。

  • このスピーチの作成も、言語モデルによって助けられました。これが変革的技術の力です。そしてこの力は人間社会に不可逆な影響を与えるでしょう。インターネットがそうであったように。

  • 漠然とした「AI」ではなく、具体的なAIの応用であるChatGPTを使って、Audrey Tangは「アシスタント人工知能は有益だ」と確信している
  • 一方で「この力は社会に不可逆な変化を与える」と考えている

  • …変革的なテクノロジーが出現すると、多様なコミュニティは、それぞれの目的を達成するために、独自の使用パターンを生み出します。

  • 独裁国家がテクノロジーを支配の手段として利用するのに対し、私たちはテクノロジーを民主化し、Pluralityあるいは協調的多様性(collaborative diversity)を目指しています。

  • 多様なコミュニティがこの力の使い方のパターンを模索していく
  • 独裁国家はこの力を支配の手段として使うだろう
  • 私たちのコミュニティはこの力を人々のものにし、協働できる多様性を目指していこう

Democratic Inputs to AI §

• 5/25、「AIの総本山」ChatGPTを開発しているOpenAIからアナウンスされた
• OpenAI「民主的プロセスを改善する実験を支援します」
• 総額$1,000,000……いちおくえん？！
• 何これ？民主的プロセス？？OpenAIはなぜこれに1億円も出すの？？？

「Democratic Input to AI」の目的 §

• AIは経済的社会的に広範囲な影響をもたらす

• 「AIがどうあるべきか」の意思決定が、営利企業の経営陣のような「少数の人間」によって行われるのは正しくない

• 公共の利益を反映した「多様な視点」によって形成されるべき

• この方向性の第一歩を踏み出すために実験プロジェクトを支援する

• 「AIシステムが従うべきルールとは何か」という疑問に答えることができる民主的プロセスの概念実証を開発するチームを募集する

• 私たち(OpenAI)はこれらの実験から学び、よりグローバルで、より野心的なプロセスの基礎としたい

• 意思決定に関連する問題を探求し、将来的にはより直接的に意思決定に情報を提供できるような、新たな民主的ツールを構築することを期待している。

• すっごく面白そうじゃん？！

  • OpenAIが旗を振ってる「AIの未来のための試み」に参加するのが面白い！
  • よりグローバルで、より野心的なプロセスの基礎を作ることに関与したい！！

応募した！！ §

• Code for Japanの関さんとかCode for Nagoyaの白松さんと組んで応募した: 創設メンバー紹介
• 7/15に結果がわかる
• 普通こういうのは採否未定の段階では話さないんだけど、プロジェクトの計画を立てるうちにプロジェクトメンバー自身がワクワクし始めて「面白いから採否関係なくやっちゃおう」ということになった
• もう活動開始して、プロジェクトへの参加を受付開始している

よりグローバルで、より野心的なプロセスの基礎 §

• 一言でいえば「地球規模の熟議」を実現したい
• 道路などのインフラは物理的な土地に密結合だったので、物理的に局在している「国」が監督するのは合理的だった
• AIは地球規模のインフラなので、国は適切な統治単位ではない、新たな統治技術が必要だ
  • (この話は「Ethereumは地球規模のインフラなので〜」と読み替えると納得する人も多いかと思う)

• (Audrey 2023)これらのコミュニティは、規範や文化が異なるかもしれませんが、共通の価値観を明らかにすることで、みんなで熟考・熟議を行い、相互運用可能なコプレゼンスを育てることができます。

  • 地球規模の熟議をする上で、各コミュニティは規範や文化が異なる
  • みんなで地球規模の熟議をするためには、異なる文化の存在を認めて、その中にある共通の価値観を明らかにする必要がある

SFプロトタイピングとPolis的システムを繰り返す §

• このプロジェクトの仕組み
• 
• 熟議のためには先に前提知識の共有が必要だ
  • しかし知識の羅列を用意しても大部分の人は読もうとしない
  • 「読みたい気持ち」を引き起こすことが必要
  • SFショートショートによる世界観の共有がいいのでは(仮説)
• ストーリーに対する読者のフィードバックを集め、それを可視化することによって新たなアイデアが生まれ、また新しいストーリーが作られる
  • このイテレーションを繰り返すことによって徐々に改善していく、という反復構造
• それらが全部蓄積していった結果として…

日本文化AIができる §

• 日本語話者の思考や感情をデータセットとしたAIができる
  • このAIは世界中で利用可能になり、人々がそれぞれの言語で会話できるようになる
  • このAIは言語の壁を越えて異文化理解を促進し、地球規模の熟議の前提となる
  • よりグローバルで、より野心的なプロセスの基礎
• 「日本文化」って言葉で古典的文化を連想する人も多いかもしれないが、まずイメージして欲しいのは
  • ドラえもん
    • 44年間続いているSFアニメシリーズ
    • 日本でドラえもんを知らない人はいないだろうし、世界でもかなり認知が広がっている
  • ドラえもんは「AIは友達」的な世界観を生み出している
    • ハリウッド映画的「人類を滅ぼそうとするAI」ストーリーに対するアンチテーゼ
    • 「人類を滅ぼそうとするAI」ストーリーに立脚して悪い未来を思い描いた人は、AIに対する法的拘束力のある規制を作ろうとする
• もう一つ、プロジェクトの参加者から出てきたキーワード:
  • 付喪神
    • 人間が作った道具が、長く使っているうちに魂を持つようになり、最終的に神になる
    • LLMが賢くなって、人格的存在になる未来イメージ
    • それを「神」と呼ぶことに、一神教文化圏の人は反発する
    • 日本の「神」の概念が一神教の神とかなり違うもの
    • 日本はキリスト教の割合が1%しかない、一方アメリカは7割近い
  • AIは道具、人間に匹敵する能力を獲得しないように規制すべきだ論
    • 神が人間を作った
    • 神は人間より上位の存在
    • 人間がAIを作った
    • AIが人間に匹敵してしまうと？
      • 「被創造物が創造主に並びうる」は「神は人間より上位の存在」という概念への挑戦になってしまう、不遜！
      • 人間が「人間を作る」という神の御業をしたことになる
        • クローン人間同様に倫理的に好ましくない！
  • 地球規模の熟議を可能にするには、こういう文化的な考え方の違いを互いに理解していく必要がある
    • ドラえもんや付喪神の概念を世界の人々が理解するためのアクションが必要

認識論的多元主義 §

• Why I Am a Pluralist - RadicalxChange
  • E. Glen Weyl, February 10, 2022

• 多元主義に2つの側面、制度的なものと認識論的なものがある

• 宗教(≒世界観)や言葉のPlurality

  • サピア・ウォーフの仮説…ある言語が他の言語よりも特定の思考を表現するのに適しているのは明らかである。

  • 思考をするためには、その思考の部品である「概念」に、操作するための取っ手である「名前」をつける必要がある
  • しかしこの「名前」は言語や文化によって異なっている
  • 例えば「民主的プロセスとはなるべく多くの人の納得感を生み出すプロセスだ」という思考
    • これを英語に訳そうとすると「納得感」をどう訳すのかが問題になる
    • すんなり翻訳する訳語がないということは、それを翻訳することは思考の損失を生むということ
  • これらを統一しようとすることは「Plural Thinking」の妨げになる
  • 日本語話者が日本語で熟議をした上で、それがAIによって世界の人々に共有されると良い
    • つまり日本文化AI！

日本文化AIの技術的実現可能性 §

• 夢物語のように感じられるかもしれないけど、技術的な実現可能性は高い
• まず「コミュニケーションの場」としてScrapboxを使用している
  • 生成されたストーリーや、感想、その他の雑談など、なんでもここに書かれる
• 実現済みの実装
  • ScrapboxのデータをGithub Actionsで1日1回データをエクスポートする
  • 500トークンのチャンクに分けてOpenAI Embedding APIでベクトル埋め込みし、Qdrantに格納している
  • Qdrantでベクトル検索が可能なWebサービスを公開済み: Omoikane Vector Search
  • あとは英語のUIとChatGPT APIとの繋ぎこみを作れば世界にリリースできるMinimum Viable Productになる

大きなストーリーの一部になる §

• MintRallyを使って参加証明NFT / 貢献証明NFTを発行する
  • これによって世界中の人に対して「私は日本文化AIの成立に参加/貢献した」と証明できる
• 採択されたらHypercertsなどを使ったRetrospective Fundingの実験台にしようというアイデアもある(from halsk)
  • ハイパーサート：公共財への資金提供のための新しいプリミティブ — Fracton Ventures

オープンベータ中！ §

• ある参加者の感想

  • 新作MMOTRPGのオープンベータだと思っている

  • 採否は未定ですが、オープンベータでプロジェクト自体のプロトタイピングをしています！
  • 現在30人が参加中
  • もちろん7/15に採択が決まった後で参加するのもウェルカムです！
• 多様な視点を集めるために、いろいろなコミュニティの人を勧誘したい
  • このコミュニティには民主的プロセスの改善や熟議の方法論に関心の高い人が多いと思う
  • このプロジェクトがAIなどの技術に強い人とつながる機会になればきっと面白い未来が生まれる
• 参加はこちらから: プロジェクトに参加する